Đầu thời Hiếu Minh đế, Nguyên Khuông làm Ngự sử trung úy, lấy Vĩ kiêm chức Thị ngự sử. Vào Đài thành mới 5 ngày thì gặp tết Nguyên đán, Vĩ coi cửa Thần Vũ, chú họ bên vợ làm Vũ Lâm đội chủ, đánh Trực trưởng ở cửa điện, ông lập tức hặc tấu. Nguyên Khuông khen ngợi, được ít lâu tâu xin cho Vĩ chuyển sang tham gia chánh sự. Sau đó Vĩ được thiếp (tức là bổ thêm) làm Quốc tử trợ giáo, rồi thăng làm Viên ngoại lang, Đình úy bình.

Bấy giờ Bắc Ngụy chưa phát sinh chiến sự, quan lại khó lòng thăng tiến, mà người gốc Đại quận phần nhiều lại không có quan hệ trong triều đình. Đến khi hai phương Lục trấn, Lũng Tây khởi nghĩa, quyền thần Nguyên Xoa muốn dùng người Đại đến truyền chiếu vỗ về dân nghèo, nên con cháu mục thú tình nguyện có hơn trăm người; Xoa lại muốn tận dùng bọn họ, nhân đó tâu xin lập đội Huân phụ (tức là quý tộc), tuyển chọn dựa vào xuất thân. Từ đây người phương bắc mới được thu dùng. Vĩ bèn tâu lên, ca ngợi đức hạnh của Xoa; Xoa vốn không biết Vĩ, hỏi thăm Thị trung, An Phong vương Nguyên Duyên Minh, Hoàng môn lang Nguyên Thuận, bọn Thuận nhân vậy khen ngợi và tiến cử ông. Xoa lệnh cho bộc xạ Nguyên Khâm tiến dẫn Vĩ kiêm Thượng thư nhị thiên thạch lang, sau đó chánh danh làm Sĩ lang. Vĩ được làm Tu khởi cư chú [2]; sau đó bộc xạ Nguyên Thuận giữ trách nhiệm Lĩnh tuyển, dâng biểu tiến cử ông làm Gián nghị đại phu.

Khi Nhĩ Chu Vinh gây ra biến cố Hà Âm, Vĩ đang trực trong cung, nên tránh được vạ. Đến khi Hiếu Trang đế vào cung, tiếp tục cho Vĩ trừ chức Cấp sự hoàng môn thị lang. Ít lâu Vĩ được lĩnh Trước tác lang.

Tiết Mẫn đế lên ngôi, Vĩ được trừ chức An đông tướng quân, Bí thư giám, vẫn làm Trước tác. Vĩ tự nhận có công giữ gìn quốc sử trong lúc chiến loạn, lại nhờ dựa dẫm Nhĩ Chu Thế Long, nên được phong Đông A huyện bá. Sau đó Vĩ được tiến làm Thị trung.

Đầu thời Đông Ngụy Hiếu Tĩnh đế, Vĩ được trừ chức Vệ đại tướng quân, Trung thư lệnh, Giám khởi cư. Sau đó Vĩ được giữ bản quan, trở lại lĩnh chức Trước tác, rồi mất khi đang ở chức; được tặng Phiếu kỵ đại tướng quân, Khai phủ nghi đồng tam tư, Đô đốc, U Châu thứ sử, thụy là Văn Trinh công. Con là Sơn Ngang được tập tước.